Етика на ИИ: Глобално ръководство за откриване на алгоритмични пристрастия

Изкуственият интелект (ИИ) бързо трансформира индустриите и влияе на живота по целия свят. Тъй като системите с ИИ стават все по-разпространени, е изключително важно да се гарантира, че те са справедливи, безпристрастни и в съответствие с етичните принципи. Алгоритмичните пристрастия, които представляват систематична и повтаряща се грешка в компютърна система, създаваща несправедливи резултати, са сериозен проблем в етиката на ИИ. Това изчерпателно ръководство разглежда източниците на алгоритмични пристрастия, техниките за тяхното откриване и смекчаване, както и стратегиите за насърчаване на справедливостта в системите с ИИ в световен мащаб.

Разбиране на алгоритмичните пристрастия

Алгоритмични пристрастия възникват, когато система с ИИ произвежда резултати, които са систематично по-неблагоприятни за определени групи хора в сравнение с други. Тези пристрастия могат да произтичат от различни източници, включително пристрастни данни, некоректни алгоритми и пристрастни интерпретации на резултатите. Разбирането на произхода на пристрастията е първата стъпка към изграждането на по-справедливи системи с ИИ.

Източници на алгоритмични пристрастия

Пристрастни данни за обучение: Данните, използвани за обучение на модели с ИИ, често отразяват съществуващите обществени пристрастия. Ако данните съдържат изкривено представяне на определени групи, моделът с ИИ ще научи и ще увековечи тези пристрастия. Например, ако система за лицево разпознаване е обучена предимно върху изображения на една етническа група, тя може да работи лошо с лица от други етноси. Това има значителни последици за правоприлагането, сигурността и други приложения. Пример е алгоритъмът COMPAS (Correctional Offender Management Profiling for Alternative Sanctions), за който е установено, че непропорционално маркира чернокожите обвиняеми като по-високорискови за рецидивизъм.
Несъвършен дизайн на алгоритъма: Самите алгоритми могат да въведат пристрастия, дори и с привидно безпристрастни данни. Изборът на характеристики, архитектурата на модела и критериите за оптимизация могат да повлияят на резултатите. Например, ако един алгоритъм разчита в голяма степен на характеристики, които са в корелация със защитени атрибути (напр. пол, раса), той може неволно да дискриминира определени групи.
Пристрастно етикетиране на данни: Процесът на етикетиране на данни също може да въведе пристрастия. Ако лицата, които етикетират данните, имат несъзнателни пристрастия, те могат да етикетират данните по начин, който отразява тези пристрастия. Например, при анализ на настроения, ако анотаторите свързват определени езикови модели с конкретни демографски групи, моделът може да се научи несправедливо да категоризира настроенията, изразени от тези групи.
Обратни връзки (Feedback Loops): Системите с ИИ могат да създадат обратни връзки, които изострят съществуващите пристрастия. Например, ако инструмент за набиране на персонал, задвижван от ИИ, е пристрастен към жените, той може да препоръчва по-малко жени за интервюта. Това може да доведе до наемането на по-малко жени, което от своя страна засилва пристрастието в данните за обучение.
Липса на разнообразие в екипите за разработка: Съставът на екипите, разработващи ИИ, може значително да повлияе на справедливостта на системите с ИИ. Ако в екипите липсва разнообразие, е по-малко вероятно те да идентифицират и да се справят с потенциални пристрастия, които биха могли да засегнат слабо представени групи.
Контекстуални пристрастия: Контекстът, в който се внедрява система с ИИ, също може да въведе пристрастия. Алгоритъм, обучен в един културен или обществен контекст, може да не работи справедливо, когато се внедри в друг контекст. Културните норми, езиковите нюанси и историческите пристрастия могат да играят роля. Например, чатбот, задвижван от ИИ, предназначен да предоставя обслужване на клиенти в една държава, може да използва език, който се счита за обиден или неподходящ в друга държава.

Техники за откриване на алгоритмични пристрастия

Откриването на алгоритмични пристрастия е от решаващо значение за гарантиране на справедливостта в системите с ИИ. Могат да се използват различни техники за идентифициране на пристрастия в различните етапи от жизнения цикъл на разработката на ИИ.

Одит на данни

Одитът на данни включва проверка на данните за обучение с цел идентифициране на потенциални източници на пристрастия. Това включва анализ на разпределението на характеристиките, идентифициране на липсващи данни и проверка за изкривено представяне на определени групи. Техниките за одит на данни включват:

Статистически анализ: Изчисляване на обобщени статистически данни (напр. средна стойност, медиана, стандартно отклонение) за различни групи с цел идентифициране на несъответствия.
Визуализация: Създаване на визуализации (напр. хистограми, диаграми на разсейване) за изследване на разпределението на данните и идентифициране на отклонения.
Метрики за пристрастия: Използване на метрики за пристрастия (напр. различно въздействие (disparate impact), разлика в равните възможности (equal opportunity difference)) за количествено определяне на степента на пристрастност на данните.

Например, в модел за кредитен рейтинг можете да анализирате разпределението на кредитните рейтинги за различни демографски групи, за да идентифицирате потенциални несъответствия. Ако установите, че определени групи имат средно значително по-ниски кредитни рейтинги, това може да показва, че данните са пристрастни.

Оценка на модела

Оценката на модела включва преценка на производителността на модела с ИИ върху различни групи хора. Това включва изчисляване на метрики за производителност (напр. точност, прецизност, отзоваване, F1-резултат) поотделно за всяка група и сравняване на резултатите. Техниките за оценка на модела включват:

Метрики за групова справедливост: Използване на метрики за групова справедливост (напр. демографски паритет (demographic parity), равни възможности (equal opportunity), предикативен паритет (predictive parity)) за количествено определяне на степента, до която моделът е справедлив спрямо различните групи. Демографският паритет изисква моделът да прави прогнози с еднаква честота за всички групи. Равните възможности изискват моделът да има еднакъв процент на верни положителни резултати (true positive rate) за всички групи. Предикативният паритет изисква моделът да има еднаква положителна предикативна стойност (positive predictive value) за всички групи.
Анализ на грешките: Анализиране на видовете грешки, които моделът прави за различните групи, за да се идентифицират модели на пристрастия. Например, ако моделът последователно класифицира грешно изображения на определена етническа група, това може да показва, че моделът е пристрастен.
Състезателно тестване (Adversarial Testing): Използване на състезателни примери за тестване на устойчивостта на модела и идентифициране на уязвимости към пристрастия. Състезателните примери са входни данни, които са предназначени да заблудят модела да направи неправилни прогнози.

Например, в алгоритъм за наемане на работа можете да оцените производителността на модела поотделно за мъже и жени кандидати. Ако установите, че моделът има значително по-ниска точност за кандидатите от женски пол, това може да показва, че моделът е пристрастен.

Обясним ИИ (XAI)

Техниките за обясним ИИ (XAI) могат да помогнат за идентифициране на характеристиките, които са най-влиятелни в прогнозите на модела. Като разберете кои характеристики управляват решенията на модела, можете да идентифицирате потенциални източници на пристрастия. Техниките за XAI включват:

Важност на характеристиките: Определяне на важността на всяка характеристика в прогнозите на модела.
Стойности SHAP: Изчисляване на стойности SHAP (SHapley Additive exPlanations) за обяснение на приноса на всяка характеристика към прогнозите на модела за отделни случаи.
LIME: Използване на LIME (Local Interpretable Model-agnostic Explanations) за обяснение на прогнозите на модела за отделни случаи чрез създаване на локална линейна апроксимация на модела.

Например, в модел за кандидатстване за заем можете да използвате техники XAI, за да идентифицирате характеристиките, които са най-влиятелни при решението на модела да одобри или откаже заем. Ако установите, че характеристики, свързани с раса или етническа принадлежност, са силно влиятелни, това може да показва, че моделът е пристрастен.

Инструменти за одит на справедливостта

Налични са няколко инструмента и библиотеки, които помагат за откриване и смекчаване на алгоритмични пристрастия. Тези инструменти често предоставят реализации на различни метрики за пристрастия и техники за смекчаване.

AI Fairness 360 (AIF360): Инструментариум с отворен код, разработен от IBM, който предоставя изчерпателен набор от метрики и алгоритми за откриване и смекчаване на пристрастия в системите с ИИ.
Fairlearn: Python пакет, разработен от Microsoft, който предоставя инструменти за оценка и подобряване на справедливостта в моделите за машинно обучение.
Responsible AI Toolbox: Изчерпателен набор от инструменти и ресурси, разработени от Microsoft, за да помогнат на организациите да разработват и внедряват системи с ИИ отговорно.

Стратегии за смекчаване на алгоритмични пристрастия

След като бъдат открити алгоритмични пристрастия, е важно да се предприемат стъпки за тяхното смекчаване. Могат да се използват различни техники за намаляване на пристрастията в системите с ИИ.

Предварителна обработка на данни

Предварителната обработка на данни включва модифициране на данните за обучение с цел намаляване на пристрастията. Техниките за предварителна обработка на данни включват:

Претегляне: Присвояване на различни тегла на различните инстанции в данните за обучение, за да се компенсират изкривените представяния.
Семплиране: Намаляване на извадката на мажоритарния клас (under-sampling) или увеличаване на извадката на миноритарния клас (over-sampling) за балансиране на данните.
Аугментация на данни: Създаване на нови синтетични точки с данни за увеличаване на представителството на слабо представените групи.
Премахване на пристрастни характеристики: Премахване на характеристики, които са в корелация със защитени атрибути. Въпреки това, бъдете внимателни, тъй като привидно безобидни характеристики все още могат да корелират със защитени атрибути непряко (прокси променливи).

Например, ако данните за обучение съдържат по-малко примери за жени, отколкото за мъже, можете да използвате претегляне, за да дадете по-голяма тежест на примерите с жени. Или можете да използвате аугментация на данни, за да създадете нови синтетични примери с жени.

Модификация на алгоритъма

Модификацията на алгоритъма включва промяна на самия алгоритъм с цел намаляване на пристрастията. Техниките за модификация на алгоритъма включват:

Ограничения за справедливост: Добавяне на ограничения за справедливост към целта за оптимизация, за да се гарантира, че моделът отговаря на определени критерии за справедливост.
Състезателно премахване на пристрастия (Adversarial Debiasing): Обучение на състезателна мрежа за премахване на пристрастна информация от представянията на модела.
Регуларизация: Добавяне на регуларизационни членове към функцията на загуба, за да се наказват несправедливите прогнози.

Например, можете да добавите ограничение за справедливост към целта за оптимизация, което изисква моделът да има еднаква точност за всички групи.

Последваща обработка

Последващата обработка включва модифициране на прогнозите на модела с цел намаляване на пристрастията. Техниките за последваща обработка включват:

Корекция на прага: Регулиране на прага на класификация, за да се постигне желаната метрика за справедливост.
Калибриране: Калибриране на вероятностите на модела, за да се гарантира, че те са добре съгласувани с наблюдаваните резултати.
Класификация с опция за отхвърляне: Добавяне на \"опция за отхвърляне\" за гранични случаи, при които моделът е несигурен в своята прогноза.

Например, можете да регулирате прага на класификация, за да гарантирате, че моделът има еднакъв процент на фалшиви положителни резултати за всички групи.

Насърчаване на справедливостта в системите с ИИ: Глобална перспектива

Изграждането на справедливи системи с ИИ изисква многостранен подход, който включва не само технически решения, но и етични съображения, политически рамки и организационни практики.

Етични насоки и принципи

Различни организации и правителства са разработили етични насоки и принципи за разработване и внедряване на ИИ. Тези насоки често подчертават значението на справедливостта, прозрачността, отчетността и човешкия надзор.

Принципите на Асиломар за ИИ: Набор от принципи, разработени от изследователи и експерти в областта на ИИ, за да ръководят отговорното разработване и използване на ИИ.
Етичните насоки на Европейския съюз за надежден ИИ: Набор от насоки, разработени от Европейската комисия за насърчаване на разработването и използването на надежден ИИ.
Препоръка на ЮНЕСКО относно етиката на изкуствения интелект: Глобална рамка за насочване на отговорното разработване и използване на ИИ, гарантираща, че той е от полза за цялото човечество.

Управление и регулация на ИИ

Правителствата все повече обмислят регулации, за да гарантират, че системите с ИИ се разработват и внедряват отговорно. Тези регулации могат да включват изисквания за одити на пристрастия, доклади за прозрачност и механизми за отчетност.

Законодателният акт на ЕС за ИИ: Предложен регламент, който има за цел да установи правна рамка за ИИ в Европейския съюз, като разглежда въпроси като оценка на риска, прозрачност и отчетност.
Законът за алгоритмичната отчетност от 2022 г. (САЩ): Законодателство, целящо да задължи компаниите да оценяват и смекчават потенциалните вреди от автоматизираните системи за вземане на решения.

Организационни практики

Организациите могат да прилагат различни практики за насърчаване на справедливостта в системите с ИИ:

Разнообразни екипи за разработка: Гарантиране, че екипите, разработващи ИИ, са разнообразни по отношение на пол, раса, етническа принадлежност и други характеристики.
Ангажиране на заинтересованите страни: Взаимодействие със заинтересованите страни (напр. засегнати общности, организации на гражданското общество) за разбиране на техните притеснения и включване на тяхната обратна връзка в процеса на разработване на ИИ.
Прозрачност и обяснимост: Правене на системите с ИИ по-прозрачни и обясними за изграждане на доверие и отчетност.
Непрекъснат мониторинг и оценка: Постоянно наблюдение и оценка на системите с ИИ за идентифициране и справяне с потенциални пристрастия.
Създаване на съвети по етика на ИИ: Формиране на вътрешни или външни комисии, които да наблюдават етичните последици от разработването и внедряването на ИИ.

Глобални примери и казуси

Разбирането на реални примери за алгоритмични пристрастия и стратегии за смекчаване е от решаващо значение за изграждането на по-справедливи системи с ИИ. Ето няколко примера от цял свят:

Здравеопазване в САЩ: Установено е, че алгоритъм, използван в американски болници за прогнозиране кои пациенти ще се нуждаят от допълнителни медицински грижи, е пристрастен към чернокожите пациенти. Алгоритъмът е използвал разходите за здравеопазване като прокси за нужда, но чернокожите пациенти исторически имат по-малко достъп до здравеопазване, което води до по-ниски разходи и подценяване на техните нужди. (Obermeyer et al., 2019)
Наказателно правосъдие в САЩ: Установено е, че алгоритъмът COMPAS, използван за оценка на риска от рецидивизъм при обвиняеми по наказателни дела, непропорционално маркира чернокожите обвиняеми като по-високорискови, дори когато те не са извършили повторно престъпление. (Angwin et al., 2016)
Набиране на персонал в Обединеното кралство: Amazon се отказа от своя инструмент за набиране на персонал с ИИ, след като откри, че системата е пристрастна към жените. Системата е била обучена върху исторически данни за наемане, които са включвали предимно кандидати от мъжки пол, което е накарало ИИ да наказва автобиографии, съдържащи думата \"women's\".
Лицево разпознаване в Китай: Изразени са опасения относно потенциала за пристрастия в системите за лицево разпознаване, използвани за наблюдение и социален контрол в Китай, особено срещу етническите малцинства.
Кредитен рейтинг в Индия: Използването на алтернативни източници на данни в моделите за кредитен рейтинг в Индия има потенциала да въведе пристрастия, ако тези източници на данни отразяват съществуващите социално-икономически неравенства.

Бъдещето на етиката на ИИ и откриването на пристрастия

С продължаващото развитие на ИИ, областта на етиката на ИИ и откриването на пристрастия ще стане още по-важна. Бъдещите изследователски и развойни усилия трябва да се съсредоточат върху:

Разработване на по-стабилни и точни техники за откриване на пристрастия.
Създаване на по-ефективни стратегии за смекчаване на пристрастия.
Насърчаване на интердисциплинарното сътрудничество между изследователи в областта на ИИ, етици, политици и социални учени.
Установяване на глобални стандарти и най-добри практики за етиката на ИИ.
Разработване на образователни ресурси за повишаване на осведомеността относно етиката и пристрастията в ИИ сред практикуващите в областта на ИИ и широката общественост.

Заключение

Алгоритмичните пристрастия са значително предизвикателство в етиката на ИИ, но не са непреодолими. Като разбираме източниците на пристрастия, използваме ефективни техники за откриване и смекчаване и насърчаваме етичните насоки и организационните практики, можем да изградим по-справедливи и по-равнопоставени системи с ИИ, които са от полза за цялото човечество. Това изисква глобални усилия, включващи сътрудничество между изследователи, политици, лидери в индустрията и обществеността, за да се гарантира, че ИИ се разработва и внедрява отговорно.

Референции:

Angwin, J., Larson, J., Mattu, S., & Kirchner, L. (2016). Machine Bias. ProPublica.
Obermeyer, Z., Powers, B., Vogeli, C., & Mullainathan, S. (2019). Dissecting racial bias in an algorithm used to manage the health of populations. Science, 366(6464), 447-453.